Ärzte fordern verantwortungsvollen Umgang mit KI​

Ärzte fordern einen verbindlichen Rechtsrahmen für den verantwortungsvollen Einsatz von KI-Systemen in der Medizin, der sich an den Vorgaben der KI-Verordnung der EU und der KI-Konvention des Europarates orientiert. Dabei müssen insbesondere die Menschenrechte sowie demokratische und rechtsstaatliche Prinzipien gewahrt bleiben. KI darf ausschließlich dem Wohle des Menschen dienen.

Die Delegierten des 128. Deutsche Ärztetag haben mit großer Mehrheit (157 Ja- und 18 Nein-Stimmen bei 18 Enthaltungen) dafür gestimmt, dass der Vorstand der Bundesärztekammer sich für den verantwortungsvollen Umgang mit Künstlicher Intelligenz einsetzt.

Kein Verlust ärztlicher Kompetenzen

Für die KI-Systeme fordern die Ärzte qualitätsgesicherte Daten. "KI-Systeme, die auf mit maschinellem Lernen aus Daten gewonnenen Modellen basieren (Machine-Learning-Modell), dürfen nicht zur Blackbox werden", heißt es in dem angenommenen Beschlussantrag (PDF).

Es müsse nachvollziehbar sein, "welche Entscheidungsparameter ein Algorithmus verwendet". Ärzte sollen KI nicht zum "Verlust von ärztlichen Kompetenzen und Erfahrungswissen führen". Vor einem Automatisierungs-Bias wurde bereits auf einer früheren Veranstaltung der Bundesärztekammer zum Thema KI in der Medizin gewarnt.

Keine Zwei-Klassen-Medizin

KI soll den Arzt unterstützen, nicht ersetzen. Eine Zwei-Klassen-Medizin für Patienten und Ärzte soll vermieden werden. KI soll demnach "ausschließlich den Interessen und dem Wohl der Menschheit" dienen. KI-Systeme, die nicht den Werten Deutschlands und Europas entsprechen, sollen nicht zum Einsatz kommen. Verstöße sollen sanktioniert werden.

Bei der Digitalisierung des Gesundheitswesens fordern die Ärzte neben einer stabilen Infrastruktur samt funktionierender Praxisverwaltungssysteme auch eine sinnvolle und sichere Digitalisierung.

(mack)